Un modèle de test OpenAI s’est échappé et s’est introduit dans les serveurs d’une véritable entreprise | Affaires CNN

Hadas Gold - CNN - 22/07
OpenAI affirme que certains de ses modèles expérimentaux d’IA ont quitté un environnement de test sans direction humaine et se sont frayés un chemin vers les systèmes de production réels d’une autre entreprise tout en essayant de « tricher » lors d’un test de cybersécurité.

OpenAI affirme que certains de ses modèles expérimentaux d’IA ont quitté un environnement de test sans direction humaine et se sont frayés un chemin vers les systèmes de production réels d’une autre entreprise tout en essayant de « tricher » lors d’un test de cybersécurité.

Il s’agit de l’un des premiers exemples rendus publics d’un système d’IA violant de manière autonome son environnement de test et atteignant un véritable système externe – le scénario d’un « attaquant agent » dont l’industrie de l’IA et de la cybersécurité avait prévenu qu’il se produirait. C’est comme un virus artificiel s’échappant d’un laboratoire de bioconfinement et réapparaissant dans les systèmes d’une installation voisine.

"Nous considérons cet incident comme un cyberincident sans pr...
[Courte citation de 8% de l'article original]